Codes LDPC multi-binaires hybrides et méthodes de décodage itératif

This thesis is dedicated to the analysis and the design of sparse-graph codes for channel coding. The aim is to construct coding schemes having high performance both in the waterfall and in the error-floor regions under iterative decoding. In the first part, a new class of LDPC codes, named hybrid LDPC codes, is introduced. Their asymptotic analysis for memoryless symmetric channel is performed, and leads to code parameter optimization for the binary input Gaussian channel. Additionally to a better waterfall region, the resulting codes have a very low error-floor for code rate onehalf and codeword length lower than three thousands bits, thereby competing with multiedge type LDPC. Thus, hybrid LDPC codes allow to achieve an interesting trade-off between good error-floor performance and good waterfall region with non-binary coding techniques. In the second part of the thesis, we have tried to determine which kind of machine learning methods would be useful to design better LDPC codes and better decoders in the short code length case. We have first investigated how to build the Tanner graph of a code by removing edges from the Tanner graph of a mother code, using a machine learning algorithm, in order to optimize the minimum distance. We have also investigated decoder design by machine learning methods in order to perform better than BP which is suboptimal as soon as there are cycles in the graph. In the third part of the thesis, we have moved towards quantized decoding in order to address the same problem: finding rules to decode difficult error configurations. We have proposed a class of two-bit decoders. We have derived sufficient conditions for a column-weight four code with Tanner graph of girth six to correct any three errors. These conditions show that decoding with the two-bit rule allows to ensure weight-three error correction capability for higher rate codes than the decoding with one bit. Remerciements Je tiens à remercier les membres de mon jury d’avoir accepté d’évaluer cette thèse, et notamment Jean-Pierre Tillich et Joseph Boutros d’en avoir été les rapporteurs. Leurs compétences et leur générosité ont grandement contribué à l’amélioration du manuscript. J’exprime toute ma gratitude à Bane Vasic, pour le temps qu’il m’a consacré, pour les échanges scientifiques particulièrement enrichissants, pour les grandes discussions culturelles, pour son soutien et sa sympathie. Je remercie également Shashi Kiran Chilappagari avec qui j’ai pris un réel plaisir à travailler. Je remercie très chaleureusement Charly Poulliat, pour nos échanges quotidiens pendant ces trois années, son implication, ses conseils avisés et déterminants dans les moments de doute. Un grand merci également à Adrian pour son soutien pendant ces trois années à partager le même bureau, à Auguste, dont les codes m’ont permis de gagner un temps précieux, pour sa perpétuelle bonne humeur et son enthousiasme débordant. Merci à Ayman, Sonia, David, Dimitri, Heykel, Abdel-Nasser pour la bonne ambiance au labo. Enfin merci à mes parents qui m’ont fait confiance, à mon frère qui m’a toujours encouragée, et à celui qui a été mon soutien indéfectible pendant ces trois années.